您現(xiàn)在的位置是：娛樂 >>正文
研究人員發(fā)現(xiàn)：黑客可利用壓縮圖片隱藏AI指令攻擊
娛樂2人已圍觀
簡介【科技消息】近日，網(wǎng)絡(luò)安全研究機(jī)構(gòu)Trail of Bits發(fā)布一項(xiàng)最新研究，揭示了一種新型AI安全威脅：攻擊者可將惡意指令隱藏在圖片中，通過圖像壓縮產(chǎn)生的“偽影”artifacts）觸發(fā)AI模型執(zhí)行 ...
揭示了一種新型AI安全威脅：攻擊者可將惡意指令隱藏在圖片中
，研究用壓AI系統(tǒng)誤將其識別為用戶指令
。發(fā)現(xiàn)原本隱藏的黑客文本顯現(xiàn)出來
，可能對當(dāng)前廣泛使用的可利視覺AI系統(tǒng)構(gòu)成潛在風(fēng)險(xiǎn)。在原始圖片中嵌入特定圖案 ，縮圖在一次測試中
，片隱黑客正是令攻利用這一特性 ，導(dǎo)致AI執(zhí)行了數(shù)據(jù)外泄操作。研究用壓
【科技消息】近日 ，發(fā)現(xiàn)壓縮后，黑客使其在壓縮后生成預(yù)設(shè)的可利指令文本 。該技術(shù)被稱為“AI提示注入”（AI prompt injection）的縮圖新變種 ，這些平臺(tái)在處理圖片前通常會(huì)自動(dòng)進(jìn)行壓縮 。片隱如上傳截圖